"Karar verme" yapay zekasının yükselişi: Etkenler nelerdir ve neden endişe yaratıyorlar?

Yapay zeka araştırmaları alanında ajanlar , bir sonraki büyük yenilik olarak giderek daha fazla yer ediniyor. Bu, bir takvimde toplantı planlamaktan, verileri analiz etmeye ve bir iş planını çözmeye kadar görevleri otonom olarak gerçekleştirebilen ChatGPT veya Claude gibi sohbet robotlarının evrimidir.

Bunlar teknoloji sektöründe zaten kullanılıyor. Bazı özel durumlar şunlardır: soruları yanıtlayan müşteri hizmetleri sistemleri, kişiselleştirilmiş ürün satışları ve hatta devlet düzeyinde: bir vatandaş, Buenos Aires Şehri Hükümeti'nin sohbet robotu olan Boti'de olduğu gibi bir prosedüre danışabilir veya planlayabilir (bu da kişisel verilerin kullanımıyla ilgili bazı soruları gündeme getirir).

Ancak ne kadar kullanışlı olsalar da çeşitli sorunlara kapı aralıyorlar : Teknolojinin getirdiği her çözüme karşılık, beraberinde bir dizi sorun daha ortaya çıkıyor.

Kullanıcı güvenliği açısından kişisel bilgilere erişimin veri koruma yasalarının yasal standartlarına tabi olması gerekmektedir. Hiç şüphesiz en büyük zorluklardan biri, bu bilgilerin korunması konusunda ortak standartların eksikliğidir. Zira her ülkede güven uyandıracak kamu politikaları yoktur, özellikle de son yıllarda yaşanan muazzam sayıda veri sızıntısı göz önüne alındığında.

Ancak bu sistemlerin teknik güvenilirliği (her zaman mevcut olan " halüsinasyon " riski, yapay zekanın sanki gerçekmiş gibi yanlış bilgiler uydurması gibi hatalar), etkileşimler konusunda şeffaflık ve hatta iş gücü değişiminin etik sorunları hakkında düşünmede de zorluklar var.

Tüm bu nedenlerden dolayı Clarín, Salesforce'un Güney Konisi Hükümet İşleri ve Kamu Politikaları Yöneticisi Marcelo Guajardo ile CRM (müşteri yönetimi; teknik dokümanı burada bulabilirsiniz) alanında lider olan teknoloji şirketinin yayınladığı son araştırma hakkında konuştu.

─Salesforce, otonom temsilcilerin gelişiyle birlikte üçüncü bir yapay zeka dalgasından bahsediyor. Bu yeni aşamanın, üretken yapay zekada daha önce gördüğümüz şeylerden ne gibi özel farklılıkları var? Bana somut bir ajan örneği verebilir misiniz?

─Otonom ajanlara sahip üçüncü yapay zeka dalgası, yapay zeka sistemlerinin bağımsız olarak çalışabilme ve veri ve karmaşık durumlara dayalı kararlar alabilme yeteneğinde önemli bir ilerlemeyi temsil ediyor. Desenlere ve verilere dayalı içerik üretmeye odaklanan üretken yapay zekanın aksine, otonom aracılar daha dinamik bir şekilde etkileşime girebilir ve değişen bağlamlara uyum sağlayabilir.

Size somut bir örnek vermek gerekirse, Wiley'nin (Amerikan çokuluslu bir yayın şirketi) Salesforce'un otonom aracısı olan Agentforce'u kullanarak müşterilerine dinamik, sohbet tarzı self-servis hizmeti sunduğunu söyleyebilirim. Agentforce, Wiley'nin bilgi tabanını kullanarak soruları yanıtlayacak şekilde yapılandırılmıştır ve hesap erişim sorunlarını ve parola sıfırlamalarını otomatik olarak çözebilir.

─Başka hangi görevleri yapabilirsiniz?

Ayrıca kayıt ve ödeme sorunlarını kategorilere ayırarak, hizmet temsilcilerini taleplerle boğmak yerine öğrencileri doğru kaynaklara yönlendiriyor. Rutin sorguları ele alarak, insan temsilcilerin daha karmaşık vakaları ele alması için zaman kazanırsınız. İlk haftalarda, vaka çözümünde %40'ın üzerinde iyileştirmeyle önceki chatbot'u geride bıraktı.

─Beyaz bültende, güvenilir yapay zeka ajanlarının sağlanması için net kamu politikalarına ihtiyaç duyulduğu vurgulanıyor. Devlet düzeyinde ajan kullanıldığına dair herhangi bir kayıt var mı? Somut örnekler var mı?

─Gerçekten de, yakın zamanda yayınladığımız "Kurumsal Yapay Zeka Alanında Bir Sonraki Sınır: Güvenilir Yapay Zeka Temsilcileri İçin Kamu Politikalarının Şekillendirilmesi" başlıklı beyaz bültenimiz bu yöne işaret ediyor ve Salesforce'un son on yılda yapay zekayı etik ve sürdürülebilir bir şekilde geliştirme konusunda elde ettiği liderliğe dayanıyor.

Yapay zeka tabanlı bu çözümler, hükümet verimliliğini ve vatandaş hizmetlerini iyileştirmek için önemli bir fırsat sunuyor. Hükümetler, Agentforce gibi araçlardan yararlanarak vatandaş sorgulamalarını kolaylaştırmaktan, hükümet yardım talepleri gibi karmaşık süreçleri otomatikleştirmeye kadar kritik işlevleri dönüştürebilir.

Örneğin, İspanya Kapsayıcılık, Sosyal Güvenlik ve Göç Bakanlığı'nın Sosyal Güvenlik BT Yönetimi (GISS), asgari geçim geliri başvurularını yönetmek için Agentforce'u kullanıyor. Temsilciler, kamu sektörü çalışanlarına, vatandaşlara en iyi yanıtı vermeleri ve veriler ile kullanım durumlarına dayalı olarak en iyi eylem planını önermeleri için yapay zeka destekli bir koçluk hizmeti sağlıyor.

─Meslek hangi risklere karşı uyarıyor?

─Birkaç konu var. Öte yandan, yapay zeka ajanlarının, halüsinasyonları tespit edip düzeltebilmelerine olanak sağlayacak şekilde, insanlara sorunsuz geçişleri sağlayacak şekilde tasarlanıp donatılması gerekiyor. Ayrıca kullanıcılar, bir yapay zeka aracıyla mı yoksa bir insanla mı etkileşimde olduklarını bilirler. Bir diğer önemli konu ise yapay zeka ajanları kullanan şirketlerin etik kurallara uyması ve kontrollü, öngörülebilir ve sorumlu ajan davranışını garanti altına almak için ortak protokoller ve standartlar oluşturmasıdır.

─Makalede olası iş kayıplarına da işaret ediliyor.

─Evet, iş kaybı konusunda bir korku var; Salesforce'ta önerdiğimiz şey, bu teknolojinin insanların yerini alması değil, onları tamamlaması yönündedir. Aracılar söz konusu olduğunda hedef, üretkenliği artırmamıza ve zamanı optimize etmemize yardımcı olmak, tekrarlayan görevleri kolaylaştırmak ve daha insani bir yaklaşım gerektiren görevler için yer açmak için onları kendi avantajımıza kullanmaktır. Son olarak, yapay zeka ajanları veri gizliliği ve güvenliği açısından bazı riskler oluşturabilir, bunları daha sonra ele alacağım.

─Çalışmada ne tür bir düzenleme öneriliyor?

─Beyaz bültenimiz, yapay zeka ekosistemindeki farklı aktörlerin rollerinin net bir şekilde tanımlanmasıyla, güçlü gizlilik, şeffaflık ve güvenlik standartlarıyla desteklenen dengeli düzenleyici çerçeveler önermektedir. Ayrıca tedarik zinciri boyunca sorumlulukların uygun şekilde dağıtılmasını ve güvenilir aracı yapay zekanın tüm endüstriler ve coğrafyalarda yaygın olarak benimsenmesini teşvik eden koşulların yaratılmasını öneriyor.

─Salesforce etkileyici miktarda kişisel kullanıcı verisini işliyor. Yapay zeka ajanlarının şirketler içinde yaygın olarak kullanılmasının, özellikle veri gizliliği ve siber güvenlik açısından, başlıca risklerini neler olarak görüyorsunuz?

─Yapay zeka ajanları görevlerini tamamlamak için kişisel ve diğer hassas verilere erişebilirler, bu nedenle yüksek veri gizliliği ve güvenliği standartlarıyla çalışmaları gerekir. Uygun yönetişimin eksikliği gizlilik ihlallerine ve bilginin kötüye kullanılmasına yol açabilir. Ayrıca, yapay zeka ajanları yanlış sonuçlar üretmelerine neden olan siber saldırılara karşı da savunmasız olabilir; bu nedenle yapay zeka ajanları giderek daha karmaşık görevler üstlendikçe, şirketlerin yapay zeka güvenliği ve kalite kontrolü için en iyi uygulamalara uyması önemli hale gelecektir.

─Başka hangi riskler söz konusu?

─Öte yandan, yapay zeka değer zincirinde yer alan kuruluşların (veri sağlayıcılar, LLM'ler , platformlar, uygulamalar vb.) gizlilik ve güvenliğine ilişkin sorumlulukların atanmasında bir netlik eksikliği bulunmaktadır. risk oluşturabilir. Ayrıca, yapay zeka tarafından otonom olarak oluşturulan ve sunulan içerik açıkça bu şekilde işaretlenmelidir (örneğin, tüketicilere verilen yanıtlarda temsilci açıklamaları veya yapay zeka tarafından oluşturulan bir görüntüde filigran kullanımı). Bu davada şeffaflığın olmaması güveni zedeleyebilir ve manipülasyon ve aldatma konusunda endişelere yol açabilir.

─Salesforce, Şili ve Brezilya gibi düzenleyici çerçevelerde (ve altyapıda) gecikmelerin yaşandığı Latin Amerika'da bu sistemlerin benimsenmesinde hangi özel fırsatları ve zorlukları görüyor?

─Bölge, sorumlu ve sürdürülebilir yapay zeka gelişimine yönelik net bir vizyona sahip olan bu yeni nesil yapay zekayı, AI ajanlarını benimseme fırsatına sahiptir. Bazı ülkeler düzenleyici çerçevelerini tartışmada daha fazla ilerleme kaydetmiş olsa da, güvenilir sistemleri, veri korumasını ve temel haklara saygıyı garanti altına alırken yeniliği teşvik eden dengeli kamu politikalarını teşvik etmek için bir fırsat penceresi bulunmaktadır.

─Bu ajanların gelişimini ilerletmek için neyin önemli olduğunu düşünüyorsunuz?

─Yapay zekanın etkili bir şekilde benimsenmesi iş birlikçi bir yaklaşım gerektirir. Hükümetler, özel sektör ve sivil toplum arasındaki ortaklık, bu teknolojinin bölgenin ekonomik ve sosyal kalkınması için potansiyelini en üst düzeye çıkarmak açısından önemlidir. Somut bir örnek yetenek geliştirmedir: Latin Amerika'da beceri açıklarını kapatmaya, kaliteli istihdamı teşvik etmeye ve dijital ekonomide gerçek fırsatlar yaratmaya katkıda bulunan başarılı eğitim ve yeniden eğitim girişimleri halihazırda mevcuttur.